Haji Mokhtar Ahmad dilahirkan dalam tahun 1907 di Kampung Sireh, Kota Bharu. Ayah beliau, Haji Ahmad Awang Ludin adalah seorang tokoh agama yang terkenal dan merupakan Imam Tua Masjid Langgar. Ayahnya pernah berguru di Mekah dengan Sheikh Mokhtar Atarid, Tuan Padang dan Tok Jerulong. Manakala abangnya, Tuan Guru Haji Abdullah Tahir Ahmad adalah murid tua Tok Kenali, pengasas Pondok Bunut Payung yang masyhur itu. Pada usia mudanya, beliau menerima asuhan agama dari ulamak-ulamak di Kota Bharu, sebelum belajar pondok di Kedah. Kemudian beliau memasuki Madrasah al-Attas, Johor Bahru dan akhirnya bermukim di Mekah selama selama 16 tahun sebelum pulang pada 1933.